Корпорация Microsoft объявила о том, что на базе облака Azure стали доступны виртуальные машины NC H100 v5 для HPC-вычислений и нагрузок ИИ. Это, как отмечается, первые в отрасли облачные инстансы на базе ускорителей NVIDIA H100 NVL. Данное решение объединяет два PCIe-ускорителя H100, соединённых посредством NVIDIA NVLink. Объём памяти HBM3 составляет 188 Гбайт, а заявленная FP8-производительность (с разреженностью) достигает почти 4 Пфлопс.

Инстансы H100 v5 основаны на платформе AMD EPYC Genoa. В зависимости от реализации, доступны 40 или 80 vCPU и 320 и 640 Гбайт памяти соответственно. В первом случае задействован один ускоритель NVIDIA H100 NVL с 94 Гбайт памяти HBM3, во втором — два ускорителя с суммарно 188 Гбайт памяти HBM3. Пропускная способность сетевого подключения — 40 и 80 Гбит/с.

Источник изображения: NVIDIA

В отличие от виртуальных машин серии ND, рассчитанных на самые крупные модели ИИ, инстансы NC оптимизированы для обучения и инференса моделей меньшего размера, которым не требуются сверхмасштабные массивы данных. Виртуальные машины Azure NC H100 v5 также хорошо подходят для определённых НРС-нагрузок: это гидродинамика, молекулярная динамика, квантовая химия, прогнозирование погоды и моделирование климата, а также финансовая аналитика.

В 2024 году Microsoft добавит в облако Azure виртуальные машины с новейшими ускорителями NVIDIA H200: оно смогут обрабатывать более крупные модели ИИ без увеличения задержки. А уже сейчас клиентам Azure стал доступен сервис DGX Cloud.

Компания Microsoft анонсировала инстансы Azure ND MI300X v5 на основе ускорителей AMD Instinct MI300X, представленных летом нынешнего года. Эти ВМ ориентированы на ресурсоёмкие ИИ-нагрузки, в частности, на решение задач инференса.

Изделия Instinct MI300X несут на борту 192 Гбайт памяти HBM3 с пропускной способностью до 5,2 Тбайт/с. В составе одной виртуальной машины ND MI300X v5 объединены восемь ускорителей, соединённых между собой посредством Infinity Fabric 3.0, а с хостом — по PCIe 5.0. В сумме это даёт 1,5 Тбайт памяти HBM3, что, как отмечает Microsoft, является самой большой ёмкостью HBM, доступной в облаке.

Виртуальные машины Azure ND — это дополнение к семейству решений на базе GPU, такие машины специально предназначены для рабочих нагрузок ИИ и глубокого обучения. Microsoft подчёркивает, что в случае ND MI300X v5 используется та же аппаратная платформа, которая применяется и для других ВМ семейства. Она включает процессоры Intel Xeon Sapphire Rapids, 16 каналов оперативной памяти DDR5, а также подключение NVIDIA Quantum-2 CX7 InfiniBand с пропускной способностью 400 Гбит/с на каждый ускоритель и 3,2 Тбит/с на виртуальную машину.

Источник изображения: AMD

По заявлениям Microsoft, на базе ND MI300X v5 могут запускаться самые крупные модели ИИ. Клиенты могут быстро перейти на новые инстансы с других решений серии ND благодаря тому, что открытая платформа AMD ROCm содержит все библиотеки, компиляторы, среды выполнения и инструменты, необходимые для ускорения ресурсоемких приложений.

Гиперскейлеры ради снижения совокупной стоимости владения (TCO) и зависимости от сторонних вендоров готовы вкладываться в разработку уникальных чипов, изначально оптимизированных под их нужды и инфраструктуру. К небольшому кругу компаний, решившихся на такой шаг, присоединилась Microsoft, анонсировавшая Arm-процессор Azure Cobalt 100 и ИИ-ускоритель Azure Maia 100.

Изображения: Microsoft

Первопроходцем в этой области стала AWS, которая разве что память своими силами не разрабатывает. У AWS уже есть три с половиной поколения Arm-процессоров Graviton и сразу два вида ИИ-ускорителей: Trainium для обучения и Inferentia2 для инференса. Крупный китайский провайдер Alibaba Cloud также разработал и внедрил Arm-процессоры Yitian и ускорители Hanguang. Что интересно, в обоих случаях процессоры оказывались во многих аспектах наиболее передовыми. Наконец, у Google есть уже пятое поколение ИИ-ускорителей TPU.

Microsoft заявила, что оба новых чипа уже производятся на мощностях TSMC с использованием «последнего техпроцесса» и займут свои места в ЦОД Microsoft в начале следующего года. Как минимум, в случае с Maia 100 речь идёт о 5-нм техпроцессе, вероятно, 4N. В настоящее время Microsoft Azure находится в начальной стадии развёртывания инфраструктуры на базе новых чипов, которая будет использоваться для Microsoft Copilot, Azure OpenAI и других сервисов. Например, Bing до сих пор во много полагается на FPGA, а вся ИИ-инфраструктура Microsoft крайне сложна.

Microsoft приводит очень мало технических данных о своих новинках, но известно, что Azure Cobalt 100 имеет 128 ядер Armv9 Neoverse N2 (Perseus) и основан на платформе Arm Neoverse Compute Subsystem (CSS). По словам компании, процессоры Cobalt 100 до +40 % производительнее имеющихся в инфраструктуре Azure Arm-чипов, они используются для обеспечения работы служб Microsoft Teams и Azure SQL. Oracle, вложившаяся в своё время в Ampere Comptuing, уже перевела все свои облачные сервисы на Arm.

Чип Maia 100 (Athena) изначально спроектирован под задачи облачного обучения ИИ и инференса в сценариях с использованием моделей OpenAI, Bing, GitHub Copilot и ChatGPT в инфраструктуре Azure. Чип содержит 105 млрд транзисторов, что больше, нежели у NVIDIA H100 (80 млрд) и ставит Maia 100 на один уровень с Ponte Vecchio (~100 млрд). Для Maia организован кастомный интерконнект на базе Ethernet — каждый ускоритель располагает 4,8-Тбит/с каналом для связи с другими ускорителями, что должно обеспечить максимально эффективное масштабирование.

Сами Maia 100 используют СЖО с теплообменниками прямого контакта. Поскольку нынешние ЦОД Microsoft проектировались без учёта использования мощных СЖО, стойку пришлось сделать более широкой, дабы разместить рядом с сотней плат с чипами Maia 100 серверами и большой радиатор. Этот дизайн компания создавала вместе с Meta✴, которая испытывает аналогичные проблемы с текущими ЦОД. Такие стойки в настоящее время проходят термические испытания в лаборатории Microsoft в Редмонде, штат Вашингтон.

В дополнение к Cobalt и Maia анонсирована широкая доступность услуги Azure Boost на базе DPU MANA, берущего на себя управление всеми функциями виртуализации на манер AWS Nitro, хотя и не целиком — часть ядер хоста всё равно используется для обслуживания гипервизора. DPU предлагает 200GbE-подключение и доступ к удалённому хранилищу на скорости до 12,5 Гбайт/с и до 650 тыс. IOPS.

Microsoft не собирается останавливаться на достигнутом: вводя в строй инфраструктуру на базе новых чипов Cobalt и Maia первого поколения, компания уже ведёт активную разработку чипов второго поколения. Впрочем, совсем отказываться от партнёрства с другими вендорами Microsoft не намерена. Компания анонсировала первые инстансы с ускорителями AMD Instinct MI300X, а в следующем году появятся инстансы с NVIDIA H200.

Точно неизвестно, велик ли спрос на ИИ-сервисы Microsoft или у компании просто недостаточно вычислительных ресурсов, но IT-гиганту пришлось договариваться с Oracle об использовании ИИ-ускорителей в ЦОД последней. Как сообщает The Register, речь идёт о применении оборудования Oracle для «разгрузки» некоторых языковых моделей Microsoft, применяемых в Bing.

Во вторник компании анонсировали многолетнее соглашение. Как сообщают в Microsoft, одновременное использование компанией как Oracle Cloud, так и Microsoft Azure расширит возможности клиентов и ускорит работу с поисковыми сервисами. Сотрудничество связано с тем, что Microsoft надо всё больше вычислительных ресурсов для заявляемого «взрывного роста» её ИИ-сервисов, а у Oracle как раз имеются десятки тысяч ускорителей NVIDIA A100 и H100 для аренды.

Источник изображения: cliff1126/pixabay.com

Служба Oracle Interconnect обеспечивает взаимодействие с облаком Microsoft Azure, что позволяет работающим в Azure сервисам взаимодействовать с ресурсами Oracle Cloud Infrastructure (OCI). Раньше такое решение уже применялось, но для сторонних клиентов двух компаний. Теперь Microsoft применяет Interconnect наряду с Azure Kubernetes Service для организации работы ИИ-узлов в облаке Oracle на благо Bing Chat.

Microsoft ещё в феврале интегрировала чат-бота Bing Chat в свой поисковый сервис и свой браузер. Не так давно добавилась и возможность, например, генерировать изображения прямо в процессе диалога. При этом использование больших языковых моделей требует огромного числа ускорителей для их тренировки, но для инференса необходимы ещё большие вычислительные мощности.

Фото: Microsoft

В Oracle утверждают, что облачные суперкластеры компании, которые, вероятно, будет использовать Microsoft, могут масштабироваться до 32 768 ИИ-ускорителей A100 или 16 384 ускорителей H100 с использованием RDMA-сети с ультранизкой задержкой. Дополнением является хранилище петабайтного класса. В самой Microsoft избегают говорить, сколько именно узлов Oracle нужно компании, причём, похоже, не намерены делать этого и в будущем.

Конкуренты сотрудничают уже не в первый раз. В сентябре Oracle сообщала о намерении размещать системы с базами данных в ЦОД Azure. Более того, ещё в мае 2023 года Microsoft и Oracle изучали возможность аренды ИИ-серверов друг у друга на случай, если у них вдруг не будет хватать вычислительных мощностей для крупных облачных клиентов. Ранее ходили слухи, что похожие соглашения Microsoft подписала с CoreWeave и Lambda Labs, к которым NVIDIA более благосклонна в вопросах поставки ускорителей. Попутно Microsoft ищет более экономичные альтернативы языковым моделям OpenAI.

Microsoft без особого ажиотажа запустила облачный регион Azure в Израиле. Официальный анонс был удалён. Сообщалось, что новый регион включает три зоны доступности Azure, которые предлагают клиентам дополнительную отказоустойчивость, поскольку регион обладает автономным питанием, сетью и системой охлаждения, создающими в комплексе дополнительную устойчивость к сбоям в ЦОД. Регион Центральный Израиль отражён на странице регионов Azure как активный.

Хотя Microsoft была первым из американских облачных провайдеров, объявившим о планах запуска региона в Израиле, компания оказалась последней, кто фактически открыл облачный регион в этой стране. Microsoft объявила о планах открыть первые ЦОД в Израиле в 2020 году. Объекты предполагалось запустить в 2021 году в районе Модиин между Тель-Авивом и Иерусалимом, но в 2021 году местная пресса сообщила о переносе открытия региона на начало 2022 года.

Изображение: Microsoft Azure

AWS запустила свой первый облачный регион в Израиле в августе 2023 года. В свою очередь, Google объявила о запуске нового облачного региона Google Cloud в Тель-Авиве (me-west1) в октябре прошлого года, а Oracle запустила облачный регион в Иерусалиме в 2021 году. Причём у последней мощности размещены в защищённом дата-центре на глубине 50 м под землёй.

Компания Microsoft намерена осуществить крупнейшее за 40 лет для своих программ в Австралии вложение. Как сообщает Bloomberg, компания намерена в течение двух лет потратить $3,2 млрд на расширение сети ЦОД для облачных вычислений и реализации ИИ-проектов.

Новые инвестиции помогут Microsoft обеспечить рост количества ЦОД в Канберре, Сиднее и Мельбурне на почти в полтора раза — с 20 до 29 дата-центров. Дополнительно в штате Новый Южный Уэльс будет открыт образовательный центр Microsoft Datacenter Academy. Также предусмотрено сотрудничество со спецслужбами страны по вопросам обеспечения кибербезопасности.

Объявление о новых инвестициях состоялось через день посоле того, как премьер-министр Австралии Энтони Альбанезе (Anthony Albanese) прилетел в США с четырёхдневным официальным визитом, в рамках которого предусмотрена и встреча с президентом США Джо Байденом (Joe Biden). Ожидается, что основной темой обсуждений станут поставки критически важных полезных ископаемых и технические инновации.

Источник изображения: Joey Csunyo/unsplash.com

В рамках второго этапа соглашения AUKUS, подписанного в 2021 году, страны договорились о более тесном технологическом сотрудничестве — США, Великобритания и Австралия будут делиться критически важными сведениями, включая данные о квантовых вычислениях и искусственном интеллекте.

Впрочем, в своём стремлении развивать ЦОД в Австралии Microsoft далеко не одинока и даже не является рекордсменом. Ещё весной 2023 года появилась информация, что AWS к 2027 году вложит $8,9 млрд в свои дата-центры на территории страны.

Корпорация Microsoft отрапортовала о работе в I четверти 2024 финансового года, которая была закрыта 30 сентября. Общая выручка редмондского гиганта достигла $56,5 млрд, что примерно на 13 % больше прошлогоднего результата, составлявшего около $50,1 млрд.

Квартальная операционная прибыль в годовом исчислении увеличилась на 25 % — с $21,5 млрд до $26,9 млрд, тогда как чистая прибыль поднялась на 27 % — с $17,6 млрд до $22,3 млрд. Прибыль в пересчёте на одну ценную бумагу оказалась на уровне $2,99 против $2,35 годом ранее (плюс 27 %).

Источник изображения: Microsoft

Microsoft продолжает активно развивать облачное направление. В подразделении Intelligent Cloud, которое, помимо облачных сервисов, включает Enterprise Services, Windows Server и SQL Server, выручка по итогам I квартала 2024 финансового года достигла $24,3 млрд. Это на 19 % больше результата за аналогичный период предыдущего финансового года, когда показатель равнялся $20,3 млрд. Денежные поступления от серверных продуктов и облачных услуг поднялись на 21 % год к году благодаря росту доходов от Azure и других сервисов на 29 %.

По направлению Productivity and Business Processes (офисные приложения Office и Office 365, Dynamics CRM) выручка за трёхмесячный период достигла $18,6 млрд против $16,5 млрд годом ранее (прибавка на уровне 13 %). Выручка от коммерческих продуктов Office и облачных сервисов поднялась на 15 % благодаря росту денежных потоков от Office 365 на 18 %. Выручка от потребительских продуктов Office и облачных сервисов показала прибавку в 3 %, а число подписчиков Microsoft 365 Consumer достигло 76,7 млн.

Dell сообщила о доступности облачной платформы APEX Cloud Platform for Azure, представленной в мае на мероприятии Dell Technologies World, став первым партнёром Microsoft в новой категории Premier Solutions для Azure Stack HCI. Решения в этой категории включают только платформы, обеспечивающие максимально быструю окупаемость гибридного облака Azure.

Платформа APEX Cloud Platform for Azure позволяет сформировать согласованную облачную среду Azure на периферии, в филиальной сети и центральных ЦОД, а также в публичном облаке. Партнёрство Dell и Microsoft позволяет переносить облачные сервисы Azure в локальные среды.

Источник изображений: blocksandfiles.com

Помимо соответствия требованиям Microsoft Premier Solutions для Azure Stack HCI, облачная платформа Dell APEX предлагает клиентам несколько дополнительных возможностей. К ним относятся почти мгновенная доступность новых выпусков ПО и исправлений, автоматическое расширение кластера, специализированные узлы для периферийных вычислений и поддержка дополнительных конфигураций хранения с программно-определяемым хранилищем. С помощью облачной платформы APEX Dell предоставляет вычислительные, хранилища и сетевые ресурсы в гиперконвергентной среде для запуска AzureStack HCI v22H2. Эта версия Dell APEX Cloud Platform for Azure использует Storage Spaces Direct с программно-определяемым хранилищем PowerFlex в качестве будущей опции.

Платформа использует 2U-узлы MC-760 и MC-660. На периферийных площадках может использоваться один узел, а в ЦОД — кластеры из 16 узлов с автоматическим расширением. MC-760 имеет как AFA-вариант, так и гибридную конфигурацию, в то время как MC-660 доступен только в конфигурациях с All-Flash. Оба типа узлов поддерживают до двух ускорителей NVIDIA Ampere. Dell сообщила о планах добавить третий, более специализированный тип узла на основе оптимизированного для периферии сервера PowerEdge XR4000. Также будет добавлена возможность масштабирования хранилища отдельно от вычислений.

По словам Dell, по сравнению с существующей платформой для Azure Stack HCI новое решение позволит сократить количество этапов его развёртывания на 88 %. Также благодаря высокой интеграции Dell со службами поддержки Microsoft, обновления, исправления и новые выпуски ПО будут доступны клиентам в течение 4 часов после выпуска апдейта Microsoft.

Несмотря на давнее соперничество, компании Oracle и Microsoft заключили необычное соглашение. Первая разместит своё аппаратное обеспечение Exadata, применяемое в Oracle Cloud, в дата-центрах Microsoft. Результатом должно стать сокращение времени задержки при передаче данных между сервисами и инфраструктурой IT-гигантов.

Сотрудничество будет организовано в виде сервиса OracleDatabase@Azure. Некоторые транснациональные корпорации, включая Vodafone и Pepsi, уже начали пользоваться сервисом, а другие приступят к его эксплуатации в начале следующего года в облачных регионах Azure в США, Великобритании и Германии. Со временем Oracle пообещала обеспечить и глобальный доступ.

Первый шаг к более тесному сотрудничеству был сделан в прошлом году, когда пользователи Azure получили возможность напрямую работать с СУБД в облаке Oracle Cloud Infrastructure (OCI). Как сообщают в Oracle и Microsoft, углубление взаимодействия особенно повлияет на развитие ИИ, поскольку данные для обучения моделей можно хранить у Oracle, а обрабатывать в Azure, причём с низким уровнем задержки. Кроме того, появление нового сервиса будет в целом способствовать переходу клиентов Oracle в облако.

Фото: Microsoft

Интеграция сервисов двух компаний также означает, что клиенты смогут приобрести доступ к Oracle Database@Azure на площадке Azure Marketplace и использовать средства с баланса Azure для оплаты расходов. При этом оператором сервиса будет выступать именно Oracle. Возможно, появятся и другие совместные проекты двух компаний. В мае сообщалось об их намерении совместно использовать оборудование из-за дефицита ИИ-ускорителей. Кроме того, совместные проекты двух компаний помогут им противостоять доминированию AWS на облачном рынке.

Microsoft договорилась о партнёрстве с G42, предположительно тесной связанной со спецслужбами Объединённых Арабских Эмиратов (ОАЭ). Как сообщает портал CIO, компании пришли к соглашению о создании в стране «суверенного» облака и развёртывании ИИ-мощностей. В 2019 году Microsoft первой из «большой тройки» запустила облачный регион на Ближнем Востоке, именно в ОАЭ.

Технологии Microsoft позволят создать мощную облачную платформу для госсектора ОАЭ и ряда жёстко регулируемых отраслей страны. В Microsoft заявляют, что это позволит обезопасить важную информацию, получить доступ к новейшим облачным и ИИ-функциям, уже доступным в публичном облаке Azure. При этом платформа будет соответствовать местным законам о «суверенитете» данных.

Не забыли в Microsoft и о собственном развитии. В рамках сделки Microsoft расширит свои ЦОД в ОАЭ при сотрудничестве с поддерживаемым властями оператором Khazna Data Centers. В Microsoft считают, что сделка поможет государственному и частному секторам страны использовать новейшие облачные технологии для решения общественно важных задач.

Источник изображения: Microsoft

Это уже не первый проект Microsoft с государственным участием на Ближнем Востоке. Так, в этом году компания рассказала о намерении построить новый облачный регион Azure в Саудовской Аравии и уже предоставляет некоторые облачные сервисы на основе Azure и OpenAI правительству Катара. Впрочем, не все довольны такой активностью Microsoft. Ещё в апреле НКО Human Rights Watch заявила о том, что планируемые компанией облачные проекты в Саудовской Аравии угрожают жителям страны, в жизни которых активно вмешиваются власти — местные законы позволяют легко получать доступ к облачным данным.

Впрочем, компания не одинока в попытках расширить влияние на Ближнем Востоке. Например, в августе Amazon Web Services (AWS) запустила облачный регион в Тель-Авиве и сообщила о готовности инвестировать в Израиль $7,2 млрд к 2037 году. В феврале о намерении расширить облачные мощности в Саудовской Аравии, потратив $1,5 млрд, заявила и Oracle. А на днях запуске облачного региона в Эр-Рияде отчиталась Huawei.